MultAttnAttrib: Training-Free Multimodal Attribution in Long Document Question Answering
基于注意力头的训练无关多模态文档问答归因方法
🧭 多模态归因 · 注意力头定位
University of Massachusetts, Amherst · Adobe Research, San Jose
利用预填充注意力头与校准阈值实现训练无关的多模态问答证据定位,速度提至七分之一。
📌 工作参考价值(4 点)
- 在推荐系统、对话 Agent 生成解释时,可借助注意力头快速定位关键证据(如用户历史行为、物品描述片段),无需额外训练,降低工程复杂度。
- 利用特定层的注意力头选择与校准阈值,可做实时归因,适合高延迟敏感的电商推荐解释场景。
- 思路可迁移至多模态商品问答:结合商品图片和描述,用类似方法自动高亮答案对应的图片区域或文本 span,提升购物体验。
- 训练无关的特性适合冷启动或频繁变更的情景,避免为归因重新训练模型,降低迭代成本。